一台Mac也能跑Kimi K3!128GB内存硬塞1.6TB权重
一台Mac也能跑Kimi K3!128GB内存硬塞1.6TB权重有人总结,运行 Kimi K3 其实很容易,只需要 1.5TB GPU 内存、大约 8 张 H100,以及一座小型变电站。一名开发者拿出一台 128GB 统一内存的 M5 Max,直接加载 Kimi K3 发布在 Hugging Face 上的官方 MXFP4 权重。
搜索
有人总结,运行 Kimi K3 其实很容易,只需要 1.5TB GPU 内存、大约 8 张 H100,以及一座小型变电站。一名开发者拿出一台 128GB 统一内存的 M5 Max,直接加载 Kimi K3 发布在 Hugging Face 上的官方 MXFP4 权重。
最近有个挺有意思的对比实验,来自 Composio 团队。他们用同一个模型 Kimi K3,分别放进三个不同的 agent 框架(harness)里跑 ——Claude Code、Hermes 和 Kimi Code—— 一共测了 28 个完全相同的任务。
起底 K3 背后核心极客天团,人均扛起 7 亿估值!
7月几天之内,中国大模型行业接连出现了两个超过2万亿参数的模型。
“推理轻量化,训练提效 25%,前端效果同样惊艳。 ”
听说K3这么猛,又属于免费开源,于是就有同学跑来问我一个特别真实的问题。听说K3这么猛,又属于免费开源,于是就有同学跑来问我一个特别真实的问题。这个问题问得太好了,好到我可以直接拿它当这篇文章的选题。因为它正好踩中了开源模型最反常识的地方。
Kimi K3 正式开源以后,最先冲到 Hugging Face 准备下载的人,滑不了几下,就会看到一个数字:2.8T。
最近,月之暗面 kimi 正式开源 Kimi K3 完整模型权重,Kimi K3 是一款总参数量达 2.8 万亿、上下文窗口达 100 万 token 的 MoE 大模型,更是全球首个落地的近 3 万亿参数级开源大模型,引起业界热议。
尽管Codex官方是支持第三方模型接入的,但是Codex 走的是 Responses API,而 K3 给的是 OpenAI 兼容的 Chat Completions API,两套协议对不上。所以Kimi 官方给的方案就是本地挂上CC Switch 或 codeproxy 这类第三方的转换器。
它把架构、训练和 Agent infra连接成了一套完整系统。